Agent 网关
一句话：模型多了之后，"调哪个模型"这件事会从业务代码里长出来，变成一层独立的基础设施 —— 这一层叫 AI 网关。
数据快照 2026-08-19。所有 star 数、协议、文件大小、行数都是当天
gh api+curl实测的；引用的每段代码都来自当天拉下来的仓库，不是凭印象默写。
一、这个专题在整个知识库里的位置
Agent 应用板块下已有的三个专题，切的都是"怎么把 Agent 写出来"。这个专题切的是另一件事：写出来之后，这些 Agent 的流量由谁来管。
写 Demo 的时候不需要网关：一个 base_url、一个 api_key，直接调。但只要出现下面任何一条，网关就必然会被造出来：
- 要同时接 OpenAI、Anthropic、Bedrock、通义，而它们的请求体格式两两不同
- 某个 provider 挂了要自动切到备份，但不能让业务代码知道
- 要按团队分配额度、按项目算成本，而模型账单只有一张
- 要在请求进出模型的路上做敏感词过滤、PII 脱敏
- Agent 开始通过 MCP 连一堆外部工具，这些连接也需要统一管控
前四条是"LLM 网关"，第五条才是"Agent 网关"。 2026 年这两件事正在合并成同一个组件，这也是这个专题现在才值得写的原因。
二、拆解对象：四家开源逐行拆 + 十家托管产品横评
选型标准不是唯 star 论 —— Kong（★44,001）和 Traefik（★64,488）star 更高，但它们是通用 API 网关加了 AI 插件，不是 AI 原生的。真正的标准是四种形态各选一个代表。
开源：4 家主拆 + 1 家对照
| 项目 | ★ | 协议 | 语言 | 最近提交 | 形态 |
|---|---|---|---|---|---|
BerriAI/litellm | 56,709 | NOASSERTION | Python | 2026-08-19 | SDK + 独立进程，功能面最全 |
higress-group/higress | 9,138 | Apache-2.0 | Go | 2026-08-19 | Wasm 插件，国内落地最多 |
agentgateway/agentgateway | 4,419 | Apache-2.0 | Rust | 2026-08-18 | 独立数据面，MCP / A2A 原生 |
envoyproxy/ai-gateway | 1,937 | Apache-2.0 | Go | 2026-08-19 | Envoy 扩展，K8s CRD 驱动 |
maximhq/bifrost | 7,414 | Apache-2.0 | Go | 2026-08-19 | 对照组：自称比 LiteLLM 快 50x |
两个校准点：
- agentgateway 的
CHARTER.md里写明它已经是 "a Series of LF Projects, LLC" —— 归 Linux Foundation 治理，不是某家公司的开源项目。 - Envoy AI Gateway 的 v1.0.0 发布于 2026-06-23，在这之前它一直是 0.x。
托管产品：国内四朵云 + 国外六家
源码看不见，就用能力坐标系横评。06 篇拆国内，07 篇拆国外。
| 覆盖对象 | |
|---|---|
| 国内（06） | 阿里云 AI 网关（Higress 商业版）· AWS Bedrock AgentCore Gateway · 华为云 APIG ＋ ModelArts Studio · 腾讯云云原生智能网关 |
| 国外（07） | Kong · Cloudflare · Azure API Management · Apigee · Vercel · OpenRouter |
其中有一家的经历必须单独讲。
⚠️ 一个必须讲清楚的变故：Portkey
Portkey-AI/gateway（★12,762，MIT，TypeScript）曾经是这份名单上的第二名。它现在的状态是：
- 最后一次 commit：2026-05-25
- 最后一个 release：v1.15.2，2026-01-12
不是弃坑，是被收购。Palo Alto Networks 于 2026-04-30 宣布收购意向、2026-05-29 完成交割，Portkey 成为 Prisma AIRS 的核心 AI 网关。
有意思的是它开源仓最后几个 commit 的内容：
2026-05-25 Merge pull request #1657 from Portkey-AI/fix/add-auth-validation-for-p
2026-05-19 redact provider options in logs
2026-05-19 disable logs when admin token not set
2026-05-19 remove admin token default
全是安全修复。 一个 AI 网关的开源生命，最后停在"日志里别把 provider 凭证打出来"上，然后被一家安全公司买走 —— 这件事本身就说明了 2026 年 AI 网关这个赛道的重心往哪儿移。
三、八篇正文
前两篇是入门，中间四篇是开源源码逐行拆解，06–07 两篇看托管产品，最后一篇结算代价。
| # | 标题 | 回答的问题 | 主要内容 |
|---|---|---|---|
| 01 | 网关是什么 | 我到底需不需要这东西？ | 从五行代码一步步长成网关；核心术语表 |
| 02 | 四种形态 | 做成库、进程、Envoy 扩展还是 Wasm 插件？ | 四家的部署模型与代码组织 |
| 03 | 路由与容错 | "选哪个后端"这个决策怎么算？ | LiteLLM router_strategy/ 六种策略 ＋ Higress failover.go |
| 04 | 多租户与配额 | 虚拟密钥、预算、限流怎么落地？ | LiteLLM Redis Lua ＋ Envoy quota_ratelimit.go |
| 05 | MCP 网关 | 一个客户端连多个 MCP 后端，会话怎么管？ | Envoy mcpproxy/ ＋ agentgateway mcp/ |
| 06 | 云厂商怎么做 | 国内四朵云各给了什么？ | 阿里云 · AWS · 华为云 · 腾讯云 |
| 07 | 国外托管网关 | 国外六家怎么打？ | Kong · Cloudflare · Azure · Apigee · Vercel · OpenRouter |
| 08 | 性能与形态代价 | 每种形态要付什么代价？ | LiteLLM 的 Rust 重写 ＋ 可复现压测方法 |
怎么读：
| 你的情况 | 路径 |
|---|---|
| 完全没接触过 AI 网关 | 从 01 开始顺读，别跳 |
| 要选一个托管产品 | 01 → 06 → 07 |
| 要自建，想看别人怎么实现 | 02 → 03 → 04 |
| 主要做 Agent | 01 → 05 → 07 |
| 赶时间 | 01 定概念，02 定形态 |
四、与本站其他内容的关系
- Agent 框架横向对比：框架决定你怎么写 Agent，网关决定这些 Agent 的流量怎么被管住。两者是正交的。
- RAG Agent Platform 项目沉淀：自己做多租户平台时踩的坑，第 04 篇会拿来和三家开源实现对照。
- vLLM 推理专题 · Prefix Caching：网关的路由决策会直接影响后端的前缀缓存命中率 —— 第 03 篇末尾会展开这条线。
下一个专题是 Agent 安全（MCP 授权五版演进、工具投毒与 Rug Pull、供应链攻击复盘），一手资料已备齐。